Toma su nombre del Convento del Santísimo Sacramento (1615), un complejo religioso vinculado a la Casa de Uceda, fundado por Cristóbal Gómez de Sandoval y de la Cerda, primer Duque de Uceda y valido de Felipe III, como un anexo de su palacio de la vecina Calle Mayor. Se demolió en los años setenta del siglo XX para la construcción de un bloque de viviendas. Del antiguo convento sólo se salvó la iglesia, convertida hoy día en Catedral Arzobispal Castrense.  

En los siglos XVI, XVII y XVIII, la Calle del Sacramento fue elegida por diferentes familias nobiliarias para instalar sus residencias.

Testigos de esos tiempos son el Palacio del Conde O´Reilly y el barroco Palacio del Marqués de Camarasa, que enfrenta a la calle la tapia de su jardín posterior (su fachada principal da a la Calle Mayor).

Esta calle, de trazado medieval, reúne un gran patrimonio histórico-artístico. Al final de la calle, aparece frontalmente el Palacio del Duque de Uceda, conocido como Palacio de los Consejos (1611), que sirve de sede al Consejo de Estado y a Capitanía General. Este edificio, del que pueden verse dos plantas de órdenes y un escudo en la parte superior, constituyó un paradigma arquitectónico en el Madrid de los Austrias, de tal suerte que la mayor parte de los palacios construidos en el siglo XVII imitó su trazado.

También al final de la calle, puede verse la parte trasera del Monumento a las víctimas del atentado contra Alfonso XIII, instalado cerca del lugar donde, el 31 de mayo de 1906, el anarquista Mateo Morrall lanzó una bomba contra Alfonso XIII, el día de su boda con Victoria Eugenia de Battemberg. Fue inaugurado en 1963 y sustituye a uno anterior, mucho más logrado, diseñado por Enrique María Repullés y Vargas y derribado durante la Segunda República.

Pero tal vez el edificio de mayor valor arquitectónico de esta calle sea la Casa de Cisneros, uno de los pocos palacios renacentistas que se conservan en Madrid.

Al fondo, se eleva la cúpula de la Catedral de la Almudena, que, desde su emplazamiento distante entre la Calle de Bailén y la Cuesta de la Vega, define la fisonomía de la Calle del Sacramento.